Menu

Persönlicher KI-Chatbot: Ein Workshop für Visionär:innen

  • 26.11.2024
  • Allgemein
Hände, die auf einem Laptop tippen, mit einer digitalen Benutzeroberfläche für einen KI-Chatbot, dargestellt in einem violetten Overlay. | © AdobeStock.Supatman
© AdobeStock.Supatman

Kreativität trifft Technologie: Workshop-Teilnehmende entwickeln personalisierte KI-Chatbots und entdecken neue Potenziale.

KI-Chatbots sind derzeit ein viel diskutiertes Thema, und ihre Entwicklung schreitet mit hoher Geschwindigkeit voran. In einem Workshop an der FH Kufstein Tirol entwickelten Teilnehmende personalisierte Chatbots. Dabei gab es den ein oder anderen Aha-Moment.

Im Oktober wurde die FH Kufstein Tirol zum Schauplatz eines spannenden Deep Dives in die Welt der künstlichen Intelligenz: Unter der Leitung von Dr. Thomas Ströhle, Experte für Data Science, tauchten die Teilnehmer:innen in die Entwicklung personalisierter Chatbots ein. Im Mittelpunkt standen die innovativen Technologien Large Language Models (LLMs) und Retrieval-Augmented Generation (RAG).

Ein interaktives Konzept mit Praxisfokus

Worum es dabei geht? Ströhle klärt auf: „LLMs sind KI-Modelle, die auf großen Textdatensätzen trainiert wurden, um menschliche Sprache zu verstehen und Texte zu erstellen. Sie werden in Anwendungen wie Textgenerierung, Übersetzung und Kundenservice verwendet.“ RAG-Systeme gehen noch einen Schritt weiter und kombinieren LLMs mit Suchtechniken, um bei Bedarf relevante Informationen aus externen Quellen abzurufen. Dadurch können sie präzisere Antworten geben, die über das Modellwissen hinausgehen. „Sie kombinieren also internes Firmenwissen mit einer KI“, führt Ströhle aus.

Im Workshop wurden zunächst LLMs vorgestellt und ihre Fähigkeiten und Anwendungen untersucht. Über allem stand die Frage: Wie kommuniziert man effizient mit LLMs? Die Teilnehmenden übten, ihre Eingaben gezielt zu optimieren und so die besten Ergebnisse zu erzielen.

Im Anschluss erfuhren die Teilnehmenden mehr über die Anwendung von RAG-Systemen. Hier wurden eigene Systeme aufgebaut, die mit Daten angereichert wurden, um kontextbasierte Antworten zu generieren.

KI für den Alltag und die Berufspraxis

Und wo könnten diese personalisierten Chatbots konkret zum Einsatz kommen? „Zum Beispiel könnte ein personalisierter Chatbot mit RAG System im IT-Support häufige technische Anfragen automatisiert bearbeiten, wie das Zurücksetzen von Passwörtern, die Fehlerdiagnose oder die Anleitung zur Installation von Software“, erklärt Ströhle. Durch Integration ins Firmensystem könnte er individuell auf Nutzer:innen abgestimmte Informationen liefern – was den Support beschleunigen und entlasten würde.

Aber auch im Bereich des E-Learnings fänden sich Anwendungsmöglichkeiten: „So könnte ein personalisierter Chatbot individuelle Lerntipps, Quizfragen oder Erklärungen passend zum Wissensstand des Nutzers bereitstellen und Lernfortschritte verfolgen“, verdeutlicht Ströhle. Im Ergebnis werde der Lernprozess so effizienter und motivierender gestaltet.

Inspiration für den Workshop fand Ströhle in seinem aktuellen Forschungsprojekt, bei dem ein IT-Chatbot für über 50.000 Mitarbeitende entwickelt wird.

Ströhle betont: „LLMs und RAG-Systeme spielen zunehmend eine zentrale Rolle in der Data-Science-Ausbildung. Studierende lernen nicht nur Modellierung, sondern auch die Integration dynamischer Wissensquellen, um intelligente Systeme zu schaffen, da sie neue Ansätze zur Analyse und Verarbeitung von Textdaten bieten.“ Studierende würden nun lernen, nicht nur Modelle zu trainieren, sondern auch deren Nutzung mit dynamischen Wissensquellen zu kombinieren, um präzisere und kontextbasierte Antworten zu erhalten. Dadurch verschiebe sich der Fokus von reinem Modellieren hin zur Implementierung intelligenter Systeme, die flexibel auf externe Informationen zugreifen können.

Inspirierende Erkenntnisse

Neben praxisnahen Übungen und lebhaften Diskussionen überraschte ein Aha-Moment die am Workshop Teilnehmenden: die Evaluierung von RAG-Systemen kann auch mit einem weiteren LLM durchgeführt werden. Im Klartext: Die KI kann sich somit zunächst selbst evaluieren, bevor wir Menschen sie beurteilen.

Gefördert durch AI4GREEN

Unterstützt durch das Interreg-Projekt AI4GREEN, zeigte der Workshop eindrucksvoll, wie Technologien wie diese zur nachhaltigen und zukunftsorientierten Nutzung von KI beitragen können.

Ein inspirierender Tag, der Teilnehmer:innen neue Perspektiven auf personalisierte KI-Lösungen bot und sie für die kommenden Herausforderungen der Digitalisierung stärkte!

Links: